LLM Explainability with Counterfactual Chains and Causal Graphs
基于反事实链与因果图的LLM可解释性方法
🧭 LLM可解释性因果图构建
Technion · IBM Research
通过MCMC反事实增强从LLM预测中挖掘概念级因果图，实现透明推理
📌 工作参考价值（4 点）
- 可直接用于电商评论情感分析等文本分类任务，抽取LLM决策所依赖的概念及其因果结构，辅助调试模型偏见（如发现“发货速度”是否被错误关联到负面情感）。
- 反事实链增强方法能在标注数据稀疏时生成高信息量反事实样本，提升因果发现稳定性，适用于LLM-as-a-judge等需审计决策逻辑的场景。
- 所构建的因果图可作为LLM代理的透明化中间层，帮助多智能体系统理解各Agent推理链路，优化协作协议。
- 整体框架与模型无关，可快速迁移到产品分类、内容审核等业务中，为模型审计与合规提供概念级解释。